👍Инструмент недели: `torchao` — лёгкое квантование и оптимизация PyTorch-моделей
`torchao` — это новая экспериментальная библиотека от команды PyTorch, разработанная для простого применения квантования, разреживания и других оптимизаций к нейросетевым моделям.
Основные возможности: 📍`autoquant` — автоматическое квантование модели по слоям, без ручной настройки 📍 поддержка INT8 квантования, совместимого с torch.ao.quantization 📍 интеграция с PyTorch 2.x (использует torch.compile, dynamo, inductor) 📍 поддержка разреживания (sparsity), структурных трансформаций 📍 работа с предварительно обученными моделями — ResNet, MobileNet, Llama и др 📍 возможность применения на CPU/GPU, включая ускорение inference в ONNX и TorchScript
Если вы хотите: 📍 ускорить инференс без потери качества 📍 уменьшить размер модели для edge-устройств или мобильных приложений 📍 минимизировать latency для real-time задач 📍 подготовить модели к выводу на продакшн с минимальным инженерным оверхедом
то torchao может стать отличной альтернативой более сложным инструментам квантования.
Пример использования:
from torchao.quant import autoquant
# Загружаем обученную модель model = torchvision.models.resnet18(pretrained=True).eval()
# Применяем автоматическое квантование model = autoquant(model)
👍Инструмент недели: `torchao` — лёгкое квантование и оптимизация PyTorch-моделей
`torchao` — это новая экспериментальная библиотека от команды PyTorch, разработанная для простого применения квантования, разреживания и других оптимизаций к нейросетевым моделям.
Основные возможности: 📍`autoquant` — автоматическое квантование модели по слоям, без ручной настройки 📍 поддержка INT8 квантования, совместимого с torch.ao.quantization 📍 интеграция с PyTorch 2.x (использует torch.compile, dynamo, inductor) 📍 поддержка разреживания (sparsity), структурных трансформаций 📍 работа с предварительно обученными моделями — ResNet, MobileNet, Llama и др 📍 возможность применения на CPU/GPU, включая ускорение inference в ONNX и TorchScript
Если вы хотите: 📍 ускорить инференс без потери качества 📍 уменьшить размер модели для edge-устройств или мобильных приложений 📍 минимизировать latency для real-time задач 📍 подготовить модели к выводу на продакшн с минимальным инженерным оверхедом
то torchao может стать отличной альтернативой более сложным инструментам квантования.
Пример использования:
from torchao.quant import autoquant
# Загружаем обученную модель model = torchvision.models.resnet18(pretrained=True).eval()
# Применяем автоматическое квантование model = autoquant(model)
In general, many financial experts support their clients’ desire to buy cryptocurrency, but they don’t recommend it unless clients express interest. “The biggest concern for us is if someone wants to invest in crypto and the investment they choose doesn’t do well, and then all of a sudden they can’t send their kids to college,” says Ian Harvey, a certified financial planner (CFP) in New York City. “Then it wasn’t worth the risk.” The speculative nature of cryptocurrency leads some planners to recommend it for clients’ “side” investments. “Some call it a Vegas account,” says Scott Hammel, a CFP in Dallas. “Let’s keep this away from our real long-term perspective, make sure it doesn’t become too large a portion of your portfolio.” In a very real sense, Bitcoin is like a single stock, and advisors wouldn’t recommend putting a sizable part of your portfolio into any one company. At most, planners suggest putting no more than 1% to 10% into Bitcoin if you’re passionate about it. “If it was one stock, you would never allocate any significant portion of your portfolio to it,” Hammel says.
The global forecast for the Asian markets is murky following recent volatility, with crude oil prices providing support in what has been an otherwise tough month. The European markets were down and the U.S. bourses were mixed and flat and the Asian markets figure to split the difference.The TSE finished modestly lower on Friday following losses from the financial shares and property stocks.For the day, the index sank 15.09 points or 0.49 percent to finish at 3,061.35 after trading between 3,057.84 and 3,089.78. Volume was 1.39 billion shares worth 1.30 billion Singapore dollars. There were 285 decliners and 184 gainers.
Библиотека data scientist’а | Data Science Machine learning анализ данных машинное обучение from us
